Tháng 3 năm 1958, Harrison có tới gặp The Quarrymen tại quán Morgue Skiffle Club của Rory Storm để chơi thử bài "Guitar Boogie Shuffle", song Lennon cho rằng cậu nhóc 14 tuổi là quá nhỏ để có thể gia nhập nhóm[18]. Tới lần gặp thứ 2 được bố trí bởi McCartney, cậu quyết định chơi lead cho bài "Raunchy" trên tầng nóc của chiếc xe bus[19]. Dần dà cậu kết thân với nhóm và chiếm vị trí chơi guitar ngày một quan trọng hơn[20], và khi Harrison 15 tuổi, ban nhạc đã tiếp nhận cậu[21]. Cho dù người cha tha thiết con trai tiếp tục con đường học hành, cậu cuối cùng đã xin nghỉ vào năm 16 tuổi sau một thời gian đi thực tập sửa điện tại cửa hiệu tạp hóa Blacklers[22].

Năm 1960, Allan Williams sắp xếp cho nhóm – lúc đó đã trở thành The Beatles – đi trình diễn tại hộp đêm Kaiserkeller của Bruno Koschmider ở Hamburg[23]. Những bài học về âm nhạc của Harrison có được chính từ những buổi diễn dài hơi cùng The Beatles, ngoài ra còn qua Tony Sheridan khi họ thường chơi nền phía sau; và đó chính là nguồn gốc của các chơi đàn đặc trưng và tính cách ít nói của ông, khiến ông có biệt danh "Beatle trầm lặng"[24]. Chuyến đi đầu tiên của ban nhạc ở Hamburg phải kết thúc sớm hơn dự tính khi Harrison bị trục xuất do còn quá nhỏ tuổi để được xuất hiện tại các hộp đêm[25]. Khi Brian Epstein tiếp quản nhóm vào tháng 12 năm 1961, ông liền tiến hành quảng bá ban nhạc và cuối cùng tìm được cho họ hợp đồng thu âm với hãng EMI[26]. Đĩa đơn đầu tay của nhóm "Love Me Do" chỉ có được vị trí thứ 7 tại Record Retailer, song khi album đầu tay của họ Please Please Me được phát hành vào đầu năm 1963, thời kỳ Beatlemania chính thức bắt đầu[27]. Trong album thứ hai của nhóm With the Beatles (1963), Harrison đã có sáng tác tự viết đầu tiên với ca khúc "Don't Bother Me"[28].

Với Rubber Soul (1965), Harrison đã mang âm hưởng của folk rock từ The Byrds và Bob Dylan vào các sáng tác của The Beatles, đặc biệt là việc ông sử dụng nhạc cụ Ấn Độ là chiếc sitar trong ca khúc "Norwegian Wood (This Bird Has Flown)"[29][gc 2]. Sau này, ông có nói Rubber Soul là "album [của The Beatles] mà tôi yêu thích nhất"[31]. Album tiếp theo của họ, Revolver (1966), có tận 3 sáng tác của ông là "Taxman", "Love You To" và "I Want to Tell You"[32]. Việc chơi chiếc tanpura trong ca khúc "Tomorrow Never Knows" của Lennon là một minh chứng cho sự tìm tòi các nhạc cụ phương Đông của ban nhạc[33]. Chiếc tabla mà The Beatles sử dụng trong "Love You To" có lẽ chính là chiếc chìa khóa đầu tiên giúp họ khai phá âm nhạc Ấn Độ[34]. Theo nhà nghiên cứu âm nhạc David Reck, bài hát đó đã tiên phong trong âm nhạc quần chúng một thứ hình mẫu kinh điển của âm nhạc châu Á được trình bày bởi các nghệ sĩ phương Đông một cách đầy tôn trọng và không một chút châm biếm[35]. Harrison cũng là người đi đầu trong việc mang những nhạc cụ không-phương-Tây khác tới ban nhạc, điển hình là chiếc swarmandal trong "Strawberry Fields Forever"[36].

Tới cuối năm 1966, những quan tâm của Harrison đã đưa The Beatles đi xa hơn, minh chứng bằng việc họ đã đưa rất nhiều guru cùng các thiền sư lên bìa album huyền thoại Sgt. Pepper's Lonely Hearts Club Band[37][gc 3]. Trong album này, ông đã một mình đảm trách sáng tác và trình bày ca khúc mang âm hưởng Ấn Độ "Within You Without You"[41]. Ông đã chơi sitar và tambura, trong khi phần bè với esraj, swarmandal và tabla được chơi bởi các nghệ sĩ từ Trung tâm Âm nhạc châu Á của thành phố London[42][gc 4]. Tới năm 1968, ca khúc "The Inner Light" mà ông viết được thu ở phòng thu của EMI tại Bombay đã được chơi cùng vô số nhạc cụ Ấn Độ[44]: đây cũng là ca khúc đầu tiên của Harrison trở thành đĩa đơn cho The Beatles khi nằm ở mặt B của ca khúc "Lady Madonna"[44]. Lấy cảm hứng từ Đạo đức kinh, ca khúc này đề cập nhiều tới Ấn Độ giáo và thiền học, ngoài ra còn mang nhiều tính Karnatak hơn chứ không theo kiểu Hindustani như trong các sáng tác trước đó của ông cùng thể loại này[45].

Bob Dylan cùng The Band cũng có nhiều ảnh hưởng lớn tới sự nghiệp của Harrison trong The Beatles[46]. Ông thiết lập một tình bạn lớn với Dylan, tự tìm thấy mình trong những công việc chung về âm nhạc cùng The Band và hơn hết được tôn trọng như một thành viên trong nhóm chứ không như với The Beatles khi mà Lennon và McCartney chiếm hầu hết những sáng tác và hoạt động của ban nhạc. Điều đó góp phần dẫn tới tính đối đầu trong các sáng tác của Harrison và làm ngày một lớn lên mong muốn trong ông là được rời khỏi nhóm[47]. Trong quãng thời gian thu âm Album trắng, sự căng thẳng gia tăng, và tay trống Ringo Starr đã bỏ nhóm một thời gian[48]. Với album này, Harrison đã đóng góp ca khúc nổi tiếng "While My Guitar Gently Weeps" (với Eric Clapton chơi lead), ngoài ra còn có "Piggies", "Long, Long, Long" và "Savoy Truffle"[49]. Những căng thẳng và đối đầu trong quá trình quay phim và thu âm tại trường quay của hãng Twickenham vào tháng 1 năm 1969 sau này được thâu và chỉnh sửa thành bộ phim Let It Be[47]. Chán nản vì điều kiện làm việc nghèo nàn và thiếu nhiệt tình, cùng với đó là những lời chê bai mà Lennon cũng từng phải nhận lấy khi tham gia với The Beatles và nhất là thái độ trịch thượng từ McCartney, Harrison tuyên bố rời nhóm vào ngày 10 tháng 1, song cuối cùng đồng ý quay trở lại chỉ đúng 20 ngày sau[50].

Mối quan hệ giữa các thành viên vẫn tiếp tục gặp nhiều vấn đề trong quá trình thực hiện album cuối cùng của họ, Abbey Road[51]. Ấn bản LP này có 2 ca khúc được hâm mộ nhất của Harrison là "Here Comes the Sun" và "Something", trong đó "Something" trở thành đĩa đơn mặt A duy nhất của ông cho ban nhạc, cũng là đĩa đơn đầu tiên của The Beatles đạt vị trí quán quân mà không do Lennon-McCartney sáng tác[52]. Năm 1969, Frank Sinatra hát lại ca khúc này và gọi nó là "ca khúc hay nhất của 50 năm trở lại đây"[53]. Lennon đánh giá đây là bài hát hay nhất trong Abbey Road, và thực tế nó đã trở thành ca khúc được hát lại nhiều nhất của The Beatles chỉ sau "Yesterday"[54]. Nhà nghiên cứu Peter Lavezzoli viết: "Harrison cuối cùng đã đạt tới trình độ của một người viết nhạc thuần thục... với 2 đóng góp kinh điển trong bản LP cuối cùng của The Beatles."[55]

Tháng 4 năm 1970, khi ca khúc "For You Blue" của Harrison được phát hành nằm trong mặt B của đĩa đơn "The Long and Winding Road" của The Beatles (do McCartney sáng tác), ông đã có trong tay đĩa đơn quán quân thứ 2 trong sự nghiệp[56]. Sự trưởng thành trông thấy của Harrison trong vai trò sáng tác cũng như sự khiên cưỡng của The Beatles trong việc đưa các bài hát của ông vào album của họ rốt cuộc đã giúp ông nắm giữ trong tay một lượng lớn các sáng tác chưa phát hành rất có ích cho sự nghiệp solo sau này[57]. Cho dù việc sáng tác của Harrison ngày một trở nên xuất sắc thì trong mỗi album của nhóm cũng chỉ có một vài ca khúc của ông, và chính điều này đã thúc đẩy việc tan rã của ban nhạc[58]. Ngày 4 tháng 1 năm 1970, Harrison có buổi thu âm cuối cùng cùng The Beatles khi hoàn thiện ca khúc "I Me Mine" cùng Starr và McCartney[59].